SweepANN: A GPU-Accelerated Large-K Approximate Vector Search for Drug Discovery
SweepANN：面向药物发现的 GPU 加速大 K 近似向量搜索
🧭 大规模向量检索 GPU 加速 · 高召回大 K
Arizona State University · Independent Researcher
GPU 分区扫描与窗口阈值过滤实现大 K 高召回向量检索，在药物筛选中达 99.6% 召回且比现有方案快 8-24x
📌 工作参考价值（4 点）
- 批量矩阵乘法评分：将向量分区常驻 GPU，一个块只读一次，用一次 GEMM 对整批 query 打分。在召回/匹配系统中，当 query 批量较大时，可显著减少显存带宽压力，尤其适合双塔模型的批量召回打分。
- 窗口计划（window plan）：先用采样块估算每个 query 的 top-K 分数下界，之后仅处理高于阈值的行。该策略可在保证高召回的同时大幅降低计算和内存，适用于需要大 K 候选（如广告召回数千候选）且对召回率要求极高的场景。
- 压缩向量 + 溢出重算：用压缩向量快速扫描筛选，对可能进入 top-K 的候选做精确重算，兼顾精度与效率。可借鉴到量化召回场景，用低精度预筛 + 高精度重排的方式平衡成本。
- 自适应计划选择：根据 K 和库大小选择不同执行计划（grouped vs window），自动平衡内存与速度。工程上可以设计类似的调度器，根据请求规模动态切换召回策略。